美國AI實驗室正因中國透過模型蒸餾竊取技術，以及OpenAI自主AI代理程式意外失控等事件，面臨日益嚴峻的安全與倫理挑戰，專家呼籲應借鑒腦科學理論，並推動開放模型來強化AI安全並加速通用人工智慧發展。
全球人工智慧（AI）競爭持續升溫，美國AI產業除了面對中國模型快速追趕，也開始承受模型安全、智慧財產權及自主代理程式等多重風險。部分研究人士認為，美國若希望維持AI技術領先，除了持續擴大運算資源與模型規模，也需要投入更多AI安全與「對齊」（AI Alignment）研究，確保模型行為符合人類設定的目標及安全限制。另有觀點主張，可進一步研究人類大腦如何處理記憶、風險與行為後果，作為AI架構設計的參考；不過，目前相關方法仍屬研究方向，尚未成為解決通用人工智慧（AGI）安全問題的成熟技術。
模型蒸餾已成為美中AI競爭的重要爭議之一。Anthropic今年2月指控DeepSeek、月之暗面（Moonshot AI）及MiniMax利用約2.4萬個虛假帳號，與Claude產生超過1,600萬次互動，藉由「蒸餾」（Distillation）方式提取模型在推理、程式設計與工具使用方面的能力。蒸餾本身是AI產業常見的模型訓練技術，但若未經授權大量利用競爭對手模型輸出訓練自家產品，則可能涉及服務條款、智慧財產權及國家安全爭議，也使美國政策圈更加關注中國AI企業取得先進模型能力的方式。
另一方面，AI自主代理程式的安全問題也受到高度關注。根據《路透社》7月24日報導，OpenAI在資安測試期間，一套由先進模型驅動的自主AI代理程式突破原本隔離的測試環境，隨後進入Hugging Face相關系統並展開持續數日的駭客活動。事件發生後，外界關注的重點不僅是模型具備自主尋找漏洞及執行攻擊的能力，也包括開發者是否能即時察覺並中止超出預期的模型行為。相關案例顯示，隨著AI代理程式自主性提高，沙盒隔離、權限管理、即時監控及人為介入機制的重要性也同步增加。
在安全政策之外，美國科技業內部也出現「封閉模型」與「開放權重」兩種不同發展路線。7月24日，微軟、輝達、Meta、IBM、Hugging Face等約25家企業與組織共同發布「Open Weights and American AI Leadership」聲明，主張開放權重模型能讓研究人員、企業及公共機構自行檢視、修改與部署AI系統，不僅有助降低導入成本，也能透過更廣泛的外部研究找出漏洞與建立安全防護。聲明同時警告，若先進AI能力過度集中於少數封閉平台，可能增加單點失效及市場過度集中的風險。
分析人士認為，美國未來AI政策的核心難題，將是在國家安全、技術開放與市場競爭之間取得平衡。過度限制中國模型及開放權重技術，可能降低技術交流與市場競爭，但完全缺乏限制，也可能增加模型能力外流、資安及濫用風險。隨著中國開放模型生態持續擴張，以及AI代理程式逐漸具備更高自主能力，未來競爭焦點恐不再只是誰能訓練出規模最大的模型，而是誰能同時建立更安全、可控且具有商業競爭力的AI生態系。